Современные эксперименты создают терабайты данных в секунду, что затрудняет их сохранение и анализ традиционными методами.
Разработчики из Китая и США создали ИИ LCLS-II-H, который сокращает объем файлов в 10-100 раз с сохранением важных деталей.
В будущем рентгеновском лазере LCLS-II-HE будет генерироваться до миллиона импульсов в секунду — каждый импульс фиксирует «снимок» атомов и молекул. Обработать такие объемы напрямую невозможно, поэтому приходится либо отбрасывать данные, либо их сжимать. Традиционные методы, такие как jpg или zip, удаляют незначительные детали, но именно в них содержится важная информация о структуре и динамике материалов.
Метод, разработанный в Национальной ускорительной лаборатории SLAC, использует нейросеть особое преобразование.
Сначала данные разделяются на крупные и мелкие структуры, затем нейросеть сжимает каждую часть отдельно, представляя их компактно. Размер файла уменьшается в 10-100 раз, в зависимости от типа данных.
Новый метод упрощает хранение и управление данными, а также ускоряет их извлечение. Исследователи могут распаковывать только нужные фрагменты данных, что экономит время и ресурсы.
Команда испытала метод на различных данных: измерениях молекул и материалов, снимках магнитного поля Солнца и фотографиях. Нейросеть адаптировалась к каждому типу данных, определяя важные особенности.
«Традиционные методы требуют распаковки всего файла, что занимает минуты, часы или дни, — говорит Жантао Чэнь, один из создателей метода. — Наш метод позволяет распаковывать только интересующую область, что делает его гораздо эффективнее».
Новый подход можно сочетать с другими методами сжатия, такими как отбор только значимых событий и характеристик.